1
부등식의 근사: 지표 함수에서 매끄러운 장벽까지
MATH008Lesson 11
00:00
고주파 거래 알고리즘을 운영하고 있다고 상상해 보세요. 포트폴리오에는 엄격한 리스크 한도가 있습니다. '하드' 제약 조건은 긴급 브레이크처럼 작동하며, 한도에 도달하는 순간 즉시 모든 것을 멈추게 합니다. 이는 시스템 로직이 붕괴될 수 있는 위험을 내포하고 있습니다. 볼록 최적화에서는 '소프트' 경고 시스템을 선호합니다. 지표 함수의 날카롭고 이진적인 절벽 대신, 우리가 경계에 가까워질수록 목적 함수에 점점 더 큰 처벌을 가하는 매끄럽고 로그 기반의 '장벽'으로 교체합니다. 이렇게 하면 최적화기는 제약 조건이 다가오고 있음을 감지할 수 있고, 경계를 벗어나지 않으면서도 매끄럽게 경로를 조정할 수 있습니다.

비미분 가능성의 문제

표준 제약 최적화 문제는 다음과 같이 정의됩니다:

$$\text{최소화 } f_0(x) \\ \text{제약 조건: } f_i(x) \leq 0, \quad i = 1, \ldots, m \\ Ax = b$$

이를 지표 함수 $I_-(u)$를 사용하여 목적 함수에 제약 조건을 통합하는 방식으로 이론적으로 재정의할 수 있습니다. 그러나 $I_-(u)$는 미적분학에서는 참으로 무서운 존재입니다:

$$I_-(u) = \begin{cases} 0 & u \leq 0 \\ \infty & u > 0 \end{cases}$$

경계에서 불연속이며 무한한 기울기를 가지기 때문에, 우리는 뉴턴 방법에 필요한 헤시안 행렬을 계산할 수 없습니다. 뉴턴 방법. 따라서 미분 가능한 대체 함수가 필요합니다.

로그 스무딩

대체 함수

우리는 다음 함수를 사용하여 $I_-(u)$를 근사합니다:

$$\hat{I}_-(u) = -(1/t) \log(-u), \quad \text{정의역 } \hat{I}_- = -\mathbf{R}_{++}$$

여기서 $t > 0$는 근사의 정확도를 결정하는 파라미터입니다. $t$가 클수록 장벽은 진짜 지표 함수와 더 유사하게 됩니다.

내부성 제약

활성 집합 방법과 달리, 이 접근법은 모든 반복값 $x$가 엄밀히 타당한 상태 ($f_i(x) < 0$) 상태를 유지해야 합니다. 로그 함수는 음수가 아닌 값에 대해 정의되지 않기 때문에, 검색 과정이 타당 영역의 내부에 머무르도록 하는 '통과 불가능한' 장벽을 만듭니다.

🎯 정의: 내부점 방법
내부점 방법: 등식 제약 조건을 가진 문제들의 일련의 순차적 문제에 뉴턴 방법을 적용함으로써 부등식 제약 조건을 포함하는 볼록 최적화 문제를 해결하는 방법입니다.